kor的相关学习及其理解
Posted on August 22, 2024
首先,第一步
获取硅基流动api,这是一个免费开放的语言模型
# 替换成你自己的API key配置好接口准备好前置工作
Posted on August 22, 2024
首先,第一步
获取硅基流动api,这是一个免费开放的语言模型
# 替换成你自己的API key配置好接口准备好前置工作
kor的主要功能体现在example中是否添加额外内容,Kor 会生成一个提示,发送到指定的 LLM 并解析出 输出,Kor主要基于prompt,是对LLM的一层封装。 LLM 之上的另一个包装器
总的来说,Kor 接收到用户定义的 schema 和待处理的原始文本(raw text)后,会将这两者组合起来,生成一个特定的 prompt(提示词模板)。这个 prompt 是用于引导 LLM 生成符合 schema 结构的输出。Kor 的作用在这一阶段尤为重要,它将复杂的 schema 和文本整合成适合 LLM 处理的输入形式,如果没有合适的结构则会返回为空